وكان العمل في خلافة الهادي دون العمل في خلافة المهدى ؛ في الاستحكام والزينة والاهتمام ؛ ولكن كملت عمارة المسجد على الوجه الذي كان باقيا إلى هذه الأيام ، وما زيد بعد ذلك إلا الزيادتين ؛ كما نشرحهما إن شاء اللّه تعالى . وهذه الأساطين الرخام جلبها المهدى من بلاد مصر والشام ، وأكثرها مجلوب من بلاد أخميم من أعمال مصر ، وهي بلدة خراب الآن من بلدان إقليم مصر القديمة كيرة الرخام ، يجلب منها إلى مصر وإلى غيرها من البلدان الرخام العظيمة والأعمدة اللطيفة المنحوتة المخروطة من الرخام الأبيض . يقال : إن أكثر رخام المسجد منها . ولم تطل مدة موسى الهادي ، وكان مدة ملكه ستة وشهرا ، وتوفى شابا عمره أربع وعشرون سنة ، في منتصف ربيع الأول سنة 170 ، واختلف في سبب موته ، فقيل : أنه وقع نديما له ، فتعلق به ، فوقع في مقصبة ، فدخلت قصب في مخارجها ، فماتا جميعا . وقيل : بل قتلته أمه الخيزران ؛ لأنه عمل على قتلها ، وأراد قتل أخيه هارون الرشيد ، ليولى العهد ولدا صغيرا من أولاده ، وعمره عشر سنين ، وكانت أمه الخيزران قد استبدت بالأمور العظام ، وكانت المواكب تقف على بابها ، فزجرها الهادي عن ذلك ، وقال لها : إن وقف أمير على بابك ، ضربت عنقه ، أما لك معزل يشغلك ، أو مصحف ، أو سبحة ؟ فقامت من عنده غضبى ، فبعث إليها طعاما مسموما ؛ فأطعمه للكلب ؛ فانتثر لحمه ، فعملت على قتله لما دخل للمنام ، وأمرت جواريها بأن يغمى وجهه بساط يجلس على جانبه ، فاشتد نفسه إلى أن مات . وولى الخلافة من بعده ، بعهد من أبيه أخوه هارون الرشيد العباسي ، الخامس من العباسيين ، ليلة السبت ، لأربع عشرة ليلة ، بقيت من ربيع الأول سنة 170 هجريا ، وأمه الخيزران أم الهادي ، وفيها قال مروان بن أبي حفص الشاعر :